Bayes' theorem
ベイズとか読めない…。wint.icon
aka. ベイズの反転公式
定式化
普通の
$ P(A \mid B) = \frac{P(B \mid A)\cdot P(A)}{P(B)} \propto P(B \mid A)\cdot P(A)
posterior probability
= likelihood function × prior probability ÷ evidence
∝ likelihood × prior
事後確率 ∝ 尤度×事後確率
一般化
同時複数条件
def. $ P(A_i \mid B) = \frac{P(B \mid A_i) \, P(A_i)}{P(B)} = \frac{P(B \mid A_i) \, P(A_i)}{\sum\{P(B \mid a) \, P(a)\}_{a \in A}} \quad \text{where} \; A_i \in A.
ここで p(A∩B) を p(A) で周辺化して p(B) を得てると見る。 証拠Bに対して、すべての仮説Aを周辺化している。
分母は周辺尤度とも呼ばれる。
ref. the law of total probability
ベイズ推定か？wint.icon
odds form
posterior odds
def. $ O(A:B \mid E) = O(A:B) \cdot Λ(A:B \mid E) = O(A:B) \cdot \frac{P(E \mid A)}{P(E \mid B)}
知識の改訂と見る
Pr(Evidence | Hypothesis)
Pr(H|E) = P(E|H)P(H)/P(E)
応用
ベイズ機械学習
ref.